尼采与机器

与机器共生:尽管这一代机器既不特别聪明也不一定迷人,但它们已经迅速占领了我们的大部分世界。

德国哲学学者,毕业于牛津大学,目前在北京居住和工作。著有《维特根斯坦论哲学、客观性和意义》(Wittgenstein on Philosophy, Objectivity, and Meaning,剑桥大学出版社,2019年;与詹姆斯·科南特合著)和《维特根斯坦之后的文化与价值》(Culture and Value after Wittgenstein,牛津大学出版社,计划出版)等。

2021-10-22 / 阅读时长 7 分钟
首发 译文

当今许多关于机器伦理的言论多少有些夸大其词。知识分子们已经形成了一种品味,把机器的道德地位问题说成是一种随时可能成为现实的未来奇观。事实上,几十年来,许多人一直在重复这种话语,而历史不断证明他们是错的。类似的无效争论在关乎非人类动物的道德地位的讨论中甚至持续更久。那些试图让我们认识到问题紧迫性的争论,在很大程度上是对关于动物权利的道德主义话语毫无创意的延伸。比如,如果机器能够被赋予意识,我们是否应该给予它们道德上的考虑。这种话语的问题不是说某些动物或机器可能不值得道德上的考虑。更确切地说,问题在于这种考虑通常以学术方式进行,这是知识分子普遍存在的个性弱点症状,也是文化衰落的迹象。

Highbrow moralism

道德主义者们基于假定的道德基础来判断人或事物应该或应该表现得比某些人或大多数其他人所想的不同。我们每个人都会这样做,但道德主义者们却有极端的倾向。有关道德主义的常见例子涉及餐桌礼仪、商店排队、交通规则、尊重权威、善意谎言,等等。更重要的例子涉及和平、堕胎、气候变化、婚姻、性别、平等和移民等问题。社会和政治行动主义(Political Activism)自然地利用道德主义作为行动主义者的动力来源,并获得更广泛的公众支持。尽管道德主义有好的或者坏的影响,但它总是肤浅的,因此在本质上是成问题的。

目前大量的讯息告诉我们,机器具有某种高级的认知或情感能力的可能性,尤其是机器像人类一样思考或感觉的可能性,是一个紧迫的道德问题,也是普遍的高雅道德主义(Highbrow moralism)的一个典型功能。人们认为,有意识、能感受到痛苦、苦难或某种类似的能力,是决定某件事是否值得道德考虑的决定性因素。如果与非人类动物进行类比的话,这种高雅道德主义的功能显而易见是无望的。在长期的动物权利斗争中,这类争论基本上是不成功的。动物权利活动家多年来取得的少数进步不是源于学术争论,而是由于实干主义(On-the-ground Activism)。

这种争论的无效性源于这样一个事实:即使人们在理论上一致认为某些认知或情感能力是某种事物是否值得道德考虑的决定因素,但这一问题仍然取决于另一个理论问题,即相关能力在动物或机器中是否可能出现,而这反过来又取决于这些能力的性质(思维是什么?意识是什么?等等)。

道德&对生命的肯定

可以肯定的是,这些都是重要的问题。但它们都属于学术范畴。据我们所知,一些事实可能证明拥有某种认知或情感能力足以使某些事物值得道德考虑,并且可能证明某种特定种类的动物或机器拥有这些必要的能力,因此,它们值得道德考虑。尽管如此,我们离了解这类事情还有很长的路要走,比人们普遍认为的要远得多。因为在这种论述中,通常假定或预先假定道德是这样的:对于任何特定的情况,在特定的时间,有关事物的道德状况是一个事实问题,只等待我们去发现。这个关于道德本质的基本预设,正是我想抨击的高雅道德主义的本质。事实是,我们不知道道德是否像今天在机器领域写作的许多知识分子所假设的那样具有确定性。他们对这种假定的道德基础的依赖,正是他们的方法如此肤浅的原因。

据我们所知,道德可能是这样的,它有时会把我们置于好像一群孩子在玩耍时制定规则的位置。当然,如此构想的道德确实是一个非常古老的游戏,其规则在很大程度上已经制定和商定。但同样明显的是,这套规则既有改革的空间(例如,关于一些非人类动物的地位),也可能有必要制定全新的规则(例如,关于新技术)。

19世纪德国哲学家弗里德里希·尼采(Friedrich Nietzsche)认为,19世纪末的欧洲文化亟需一场价值观的革命。在他看来,基督教价值观在欧洲大陆的迅速衰落留下了越来越多需要填补的文化和道德空白。为此,尼采写了好几本具有洞察力的长篇研究报告,包括《朝霞:关于道德偏见的思考》(1881年)、《善恶的彼岸》(1886年)、《论道德的谱系》(1887年)和《偶像的黄昏》(1888年)。在他职业生涯中最高产时期的这些作品中,他对传统道德进行了详细而广泛的批判,并宣扬了一套全新的、完全不同的价值观。

对生命的肯定也许是尼采宣扬的最重要的价值。从他的《快乐的科学》(1882年)开始,他思考了一个有力的思想实验的内涵。“假如恶魔在某一天或某个夜晚闯入你最难耐的孤寂中,并对你说:

‘你过去和现在的生活,就是你今后的生活。它将周而复始,不断重复,绝无新意,你生活中的每种痛苦、欢乐、思想、叹息,以及一切大大小小、无可言说的事情皆会在你身上重现,会以同样的顺序降临,同样会出现此刻树丛中的蜘蛛和月光,同样会出现现在这样的时刻和我这样的恶魔。存在的永恒沙漏将不停地转动,你在沙漏中,只不过是一粒尘埃罢了!’

尼采继续道,“你听了这恶魔的话,是否会瘫倒在地呢?你是否会咬牙切齿,诅咒这个口出狂言的恶魔呢?......或者你对自己及生活得抱有多大的热忱才甘愿接受这种无尽的确定和封禁?”

尼采自己对这一思想实验的观点(正如人们所熟知的那样,永恒轮回的可能性)使他对生命的肯定给予了极高的评价。他认为,在我们的价值体系中,对生命价值的肯定应该被赋予比传统认识更高的地位。在此我们无需关注尼采的另一种价值体系的确切性质。同样,他的道德观是否等同于一种实在论(Realism)或反实在论(Anti-realism)、客观主义(Objectivism)或主观主义(Subjectivism)等等都是重要的问题,有些人认为它和任何合理的道德观一样是实在的和客观的,当然也有其他人持反对意见,但本文的论点并不取决于这些。相反,重点是,我们决不能坐等这类学术问题得到解决。我们可以并且必须在尚不确定的条件下继续前进。我们也不能对这种不确定性的程度抱有任何幻想。我们不知道道德是否如此确定,以至于各种事物的道德地位只能等我们去发现。特别是,我们不知道机器或非人类动物的道德地位是否是我们可以决定创造的东西。

我们想要的机器生活

这并不是在呼吁政治行动主义(Political Activism)。这将预先假定存在某种价值观,但这种价值观可能尚不存在,因此正是本文所反对的那种道德主义的一个实例。然而,这确实是对知识分子行动主义(Intellectual Activism)的呼吁。除了极大地高估了我们目前的知识以外,道德主义观点的另一个问题在于它内在的无能;这种观点意味着,当涉及到道德是非问题时,我们无能为力,这就会导致荒谬甚至灾难性的后果。例如,假设道德主义以某种方式盛行,人们“发现”所有具有某种认知或情感能力的机器都应该享有现在被称为人权的一切。即便这会导致人类的灭绝,但要剥夺机器自身繁衍生息的权利仍是不道德的。

因此,尽管今天某些围绕机器领域进行写作的知识分子的高雅道德主义所产生的学术论点不太可能说服任何一个有理智的人,我们只能希望它们事实上会被普遍拒绝。人类物种的灭绝不应是错误的道德责任(Moral Imperative)或是探索道德责任失败的后果。而一些不易察觉的后果已经够糟糕的了。也许以目前的技术创新速度,不可避免地会导致一些文化的衰落。如果以新技术快速增长所提供的潜力来衡量,停滞甚至缓慢的进步都是衰退的表现形式。但是,生活在地球不同地区的人们在个人和社会层面上也有明显的文化差异,这表明更实际的方法可能导致更高的适应性,从而使文化发展更加健康。如果把某一社会在技术革新面前大规模的文化衰落归咎于一小部分知识精英的被动,那是很荒谬的。但只要知识分子亚文化存在,它就永远是任何社会文化发展的重要因素。

关于机器的伦理和形而上学讨论将继续在人类对文化和技术进步的持久追求中发挥关键作用。然而,知识分子不仅要解释世界,还要设法改变世界,哪怕是用正确的方式传达正确的观点。计算机器融入人类社会并不是什么未来的奇观,它已经在发生了。它可能是一个漫长的,并不总是壮观,但却充满争议的社会和政治过程。

尽管这一代机器既不特别聪明也不迷人,但它们已经迅速占领了我们的大部分世界。今天,科学、商业、政府以及普通人都面临着困难的实际问题。即使关于机器的道德地位问题迫在眉睫,但高雅道德主义既不会阻碍也不会加速这一发展。人们在生活中希望拥有最好的伴侣,如果机器可以被制造成比人类更好的伴侣,那么有些人会选择机器而不是人类,包括将机器作为看护者、玩伴、朋友、爱人和性伴侣。有些人已经这样做了。鉴于这种发展,越来越多的人想要将道德权利延伸到机器上,一场类似于现有的动物权利运动的机器权利运动的出现只是时间问题,但考虑到机器发展的显著潜力,它们可能会更加强大。以现在来看,未来发展将是快速且混乱的。从文化和个人的角度来看,最好的准备是在当前进行改良性的且更具反思的实践,并让有能力的知识分子尝试并有效地助力这种努力——这样,我们人类至少可以更清楚地知道我们真正想要的人类与机器共存的生活是什么样子的。

田天增(山西大学)| 译

赵  斌 | 校

天蒙「睿ⁿ」 | 编

(版权所有,未经允许请勿转载)